Отговорът на Facebook и Instagram на дълбоко фалшивото порно е в процес на преглед от неговия надзорен съвет
Надзорният съвет на Meta ще оцени метода, по който компанията се оправя с надълбоко подправената порнография на фона на възходящите опасения, че изкуственият разсъдък подхранва повишаването на основаването на подправени, очевидни изображения като форма на тормоз.
Надзорният съвет сподели във вторник, че ще прегледа по какъв начин Meta се е справил с две експлицитни, генерирани от AI изображения на дами обществени фигури, една от Съединените щати и една от Индия, с цел да реши дали компанията има подобаващи политики и практики за справяне с такова наличие — и дали постанова тези политики поредно по целия свят.
Заплахата от генерираната от изкуствен интелект порнография притегли вниманието през последните месеци, като известни персони, в това число Тейлър Суифт, както и гимназисти в Съединени американски щати и други дами по света, станаха жертва на формата на онлайн корист. Широко наличните генериращи AI принадлежности направиха по-бързо, по-лесно и по-евтино основаването на такива изображения. Междувременно обществените медийни платформи разрешават бързото разпространяване на тези изображения.
„ Дълбоко подправената порнография е възходяща причина за учреден на пола тормоз онлайн и от ден на ден се употребява за ориентиране, заглушаване и заплашване на дами – както онлайн, по този начин и офлайн “, сподели в изказване Хеле Торнинг-Шмид, съпредседател на надзорния съвет на Meta.
„ Знаем, че Meta е по-бърза и по-ефективна при модерирането на наличие на някои пазари и езици, в сравнение с други “, сподели Торнинг-Шмид, който е и някогашен министър-председател на Дания. „ Като вземем един случай от Съединени американски щати и един от Индия, желаеме да проверим дали Meta пази всички дами в международен мащаб по обективен метод. “
Надзорният съвет на Meta е организация, формирана от специалисти в области като свободата на изложение и човешките права. Често се разказва като тип висш съд за Meta, защото разрешава на потребителите да апелират решения за наличие в платформите на компанията. Бордът дава рекомендации на компанията за това по какъв начин да се оправи с избрани решения за модериране на наличие, както и по-общи оферти за политика.
Като част от своя обзор, бордът ще оцени един образец на генерирано от AI голо изображение, наподобяващо обществена персона от Индия, което беше споделено в Instagram от акаунт, който „ споделя единствено генерирани от AI изображения на индийски дами “.
Потребител заяви, че изображението е порнографско, само че отчетът беше автоматизирано затворен, откакто не получи обзор от Instagram в границите на 48 часа. Същият консуматор апелира решението на Instagram да остави изображението, само че отчетът още веднъж не беше прегледан и автоматизирано затворен. След като Надзорният съвет сподели на Meta за желанието си да се заеме със случая, компанията реши, че е позволила изображението да остане по неточност и го отстрани заради нарушение на разпоредбите за малтретиране и тормоз, съгласно борда.
Вторият случай включва генерирано от AI изображение на гола жена, която е опипвана, което е оповестено във Фейсбук група за AI творения. Изображението трябваше да прилича американска социална фигура, която също беше упомената в надписа на изображението.
Същото изображение е било оповестено преди този момент от различен консуматор, след което то е ескалирано до специалисти по политиката, които са решили да го отстранен заради нарушение на разпоредбите за малтретиране и тормоз, „ по-специално за „ позорен сексуализиран фотошоп или рисунки “. След това изображението е добавено към банка за съвпадане на фотоси, която автоматизирано открива по кое време изображения, нарушаващи разпоредбите, са оповестени наново, тъй че обявата на втория консуматор беше автоматизирано отстранена.
Като част от този финален обзор Надзорният съвет търси обществени мнения — които могат да бъдат изпратени анонимно — по отношение на надълбоко подправената порнография, в това число по какъв начин сходно наличие може да навреди на дамите и по какъв начин Meta е дала отговор на изявления, включващи експлицитни изображения, генерирани от AI. Срокът за публично разискване завършва на 30 април.
